Pelantikan Jodl sebagai seorang Mejar dalam bahagian operasi Truppenamt di Markas Tentera Darat pada hari-hari terakhir Republik Weimar meletakkan beliau dibawah pemerintahan Jeneral Ludwig Beck, yang mengiktiraf Jodl sebagai "orang yang mempunyai masa hadapan".[petikan diperlukan] Pada September 1939 Jodl memulakan tugas sepenuh masa dengan Adolf Hitler. Dalam membina kekuatan sebelum Perang Dunia II, Jodl telah ditugaskan sebagai Artilleriekommandeur Divisyen Ke-44 dari Oktober 1938 hingga Ogos 1939 sewaktu peristiwa Anschluss. Jodl telah dilantik oleh Hitler sebagai Chef des Wehrmachtführungsstabes im Oberkommando der Wehrmacht (Ketua Staf Operasi Markas Besar Angkatan Tentera yang baru dibentuk). Jodl bertindak selaku Ketua Turus semasa penjajahan pantas Denmark dan Norway. Sewaktu kempen tersebut, Hitler masuk campur hanya selepas flotila kapal pembinasa Jerman musnah diperairan Narvik dan mahu tentera Jerman disana berundur ke Sweden. Jodl berjaya mengagalkan perintah Hitler. Jodl tidak bersetuju dengan Hitler buat kali kedua semasa serangan musim panas tahun 1942. Hitler menghantar Jodl ke rantau Caucasus untuk melawat Fil Marsyal Wilhelm List bagi mengetahui kenapa telaga minyak disana masih tidak dapat ditawan. Jodl kembali hanya dengan menyokong laporan List yang menyatakan pasukan tentera disana hampir setengah mati berjuang.

Sewaktu Pertempuran Britain Jodl sangat optimis dengan kejayaan Jerman keatas Britain, pada 30 Jun 1940 beliau menulis "Kemenangan akhir Jerman keatas England kini hanya menunggu masa."[6]

Pada Perbicaraan Nuremberg, apabila berhadapan dengan tuduhan penembakan beramai-ramai tawanan perang Soviet pada tahun 1941, Jodl menjelaskan bahawa tawanan yang ditembak hanya kepada "... mereka yang bukan boleh berjalan, tetapi mereka yang tidak mahu berjalan."[7]

Jodl menandatangani Perintah Komando bertarikh 28 Oktober 1942 (dimana komando tentera Bersekutu, termasuk askar-askar berseragam kemas serta pejuang-pejuang yang memakai pakaian awam, seperti Maquis dan Partisan, akan dibunuh serta-merta tanpa perbicaraan jika ditangkap didalam garisan Jerman) dan Perintah Komisar bertarikh 6 Jun 1941 (dimana para Komisar Politik Soviet akan ditembak).

Beliau telah tercedera semasa peristiwa Plot 20 Julai 1944 apabila Hitler cuba dibunuh. Disebabkan ini, Jodl telah dikurniakan lencana cedera khas bersama-sama tokoh utama Nazi yang lain. Jodl juga agak lantang bersuara mengenai kecurigaannya terhadap orang lain yang tidak mengalami luka seteruk beliau, sering mengheboh-hebohkan kesan komplot tersebut pada orang lain.

Pada pengakhiran Perang Dunia II di Eropah, selaku wakil kepada Karl Donitz, Jodl menandatangani surat cara penyerahan kalah tanpa syarat Jerman pada 7 Mei 1945 di Reims, Perancis.